O caso Smart Sampa e o racismo algorítmico através do uso de reconhecimento facial

O caso Smart Sampa e o racismo algorítmico através do uso de reconhecimento facial

• Autor
• Juliana Campos de Aguiar Mattos Ribeiro
• Co-autores
• Pedro Henrique Conceição dos Santos
• Resumo

• A nota técnica “Smart Sampa: transparência para quem? Transparência de que?” (Monteiro et al., 2026) elaborado pelo Laboratório de Políticas Públicas e Internet (LAPIN), pelo Instituto de Referência Negra Peregum e pela Rede Liberdades, indicou que a maior parte das pessoas presas através do sistema de monitoramento eletrônico da prefeitura de São Paulo eram pessoas negras (pardas e pretas). Ainda, nesta mesma nota técnica, é apresentado que há inconsistências no reconhecimento facial, sendo comum ocorrer entre pessoas negras. Neste sentido, discutimos sobre os elementos que compõe o racismo algorítmico (Silva, 2022) que estão atreladas ao uso do reconhecimento facial como ferramenta de decisão sobre prisão de pessoas que tenham cometido crimes.

  Este trabalho quer discutir sobre o uso do reconhecimento facial como estratégia de reprodução do racismo no contexto brasileiro através da tecnologia, formando um estereótipo informacional racista que se dá por meio da utilização social desta ferramenta. Desta forma, justifica-se tal reflexão por conta desta questão social, o racismo, que aflige a maior parte da população. O problema desta pesquisa está centrado na inequidade estabelecida previamente ao processo de reconhecimento facial, na coleta inconsistente de dados, e na consequência que é o erro tecnológico que amplia a discriminação racial, marginalizando populações que carregam a marca do racismo. Como objetivo principal da pesquisa é analisar a nota técnica sob a luz da Ciência da Informação, através de uma análise crítica que se baseia nos marcos legais atrelados à informação, principalmente levando em consideração a Constituição (Brasil, 1988).

  Para tanto, temos como marcos teóricos os estudos atrelados ao racismo algorítmico, como presentes em Silva (2022), buscando aprofundar o ponto de que o problema não reside na tecnologia em si, mas nos dados que essas ferramentas recebem e seu uso social, às maneiras como existe uma relação íntima entre o uso de tecnologia ao racismo, como aponta o trabalho de Noble (2018), demonstrando a falta de neutralidade nos espaços sociais mediados por tecnologia, e a discussão de Benjamin (2020) relativa aos estudos de ciência e tecnologia e teoria racial crítica, complexificando a discussão a respeito da naturalização da vigilância de corpos negros. 

  Sendo assim, analisa-se o caso da nota técnica sobre o Smart Sampa buscando compreender caminhos de interpretação crítica e informacional a respeito do uso do reconhecimento facial. Compreende-se que o racismo assume papel central e que há a necessidade de rever o uso do reconhecimento facial como ferramenta comprobatória para efetuar a prisão de possíveis suspeitos de crimes, sendo de responsabilidade da Ciência da Informação ampliar os debates a respeito de sua utilização. Uma contramedida é a PL 2338/23 (Brasil, 2023), que busca regulamentar o uso de inteligência artificial e pode impactar o uso de tecnologias como a de reconhecimento facial, mas está parada. Ao situar o reconhecimento facial dentro da economia política da informação, evidenciamos como a infraestrutura de vigilância digital reproduz desigualdades raciais historicamente construídas, reforçando mecanismos de controle estatal sobre corpos negros.

• Palavras-chave
• Smart Sampa; Racismo Algorítmico; Reconhecimento Facial
• Modalidade
• Comunicação oral
• Área Temática
• GT 8 - Estudos Críticos sobre identidade, gênero e raça

Voltar Download